Phu nhân là bà Ngô Thị Huệ (sinh 1918, kết nạp Đảng năm 1936, hiện là Phó Chủ tịch Hội Bảo trợ bệnh nhân nghèo Thành phố Hồ Chí Minh. Trước đó là Đại biểu Quốc hội Việt Nam khóa I đến khóa IV, nguyên Phó Bí thư Tỉnh ủy Tỉnh Vĩnh Long, nguyên Ủy viên Ban Thường vụ Thành ủy Sài Gòn, nguyên Vụ trưởng Vụ Cán bộ trực thuộc Ban Tổ chức Trung ương Đảng Cộng sản Việt Nam).[21] Hai ông bà có con gái đầu lòng tên Nguyễn Thi Hòa năm 1953, con gái thứ Nguyễn Thị Bình năm 1954 và con trai Nguyễn Hùng Linh (hay Nguyễn Văn Linh) khoảng năm 1957.

Tên Nguyễn Văn Linh thực chất là bí danh, và được đặt theo tên người con trai út của ông.